NVIDIA 早在 2007 年就開始布局嵌入式系統產品線,只不過當時聚焦在智慧型手機或是平板的應用上,可惜夾帶著 GPU 的盛名推出的 Tegra 系列系統晶片帶給當時市場的衝擊有限。後續在 2014 年推出的 TK1 才算正式聚焦在邊緣運算裝置,並以 Jetson 作為其邊緣裝置家族識別名稱。
NVIDIA Jetson 產品線 (source: NVIDIA)
2019 年三月 NVIDIA 在 GTC(GPU Technology Conference) 正式推出的 Jetson Nano Dev Kit 與 module,給了市場一個震撼彈,定價 99 美金即可購買到入門的邊緣運算裝置,在此之前最親民的 TX2 開發套件定價可是在19,990台幣(具學生身分可申請5折優惠購買)。不同於 Intel 的 x86 平台,NVIDIA Tegra 的 ARM 架構即便效能比不上 x86 ,但卻有功耗上的優勢,整合GPU CUDA 的推論特性,在移動載具上的攻城略地,這也成為了 Jetson 家族的首要目標。挾帶著價格上的優勢也一併催生了 Jetbot 與 Dockietown 等社群專案與線上 DLI(Deep Learning Institute) 課程,瞬間在社群、教育單位、開發者間大量的發酵,也見證了老黃想攻占邊緣運算市場的決心!
JetPack SDK 是對應 Jetson 嵌入式家族的軟體開發套件,裡面包含 Linux for Tegra (L4T)、TensorRT(DL 加速工具)、CUDA(GPU平行運算API)、OpenCV等眾多重要工具,提供開發者在 Tegra 這 ARM 架構整合 GPU 的平台上,所有開發所需要的軟體資源。除此之外還有 DeepStream 用來做即時影像推論、ISAAC 作為機器人的開發平台等上層軟體,以及 NVIDIA TAO 便利於轉換深度模型與提升效能(是的,就是跟 Intel 的 OpenVINO 戶別苗頭)。縱然 ARM 平台的邊緣裝置開發不如 X86 平台來得得天獨厚, NVIDIA 也是傾盡全力產出各類功能優異的工具,為的也是搶奪 Edge AI 這塊兵家之地。
NVIDIA Jetson Software (source: NVIDIA)
NVIDIA Jetson 系列產品線已趨近完整,不管入門、中階到高階都有對應的運算模組,並且在 Entry Level 的價格非常具有競爭力,而廣受到教學單位與中小型開發團隊的青睞,同時在社群營造與專案發展也都相當豐富。而 ARM 架構的 SoC 可以有效控制功耗,同時 DIMM 介面的運算模組也容易讓製造商整合到既有產品中。
劣勢的部分則是在第三方的合作產商所銷售的產品選擇性較少,並且在 2020 年因為疫情干擾與挖礦風潮造成整個產品線供需失衡,因嚴重缺貨造成二手商品與稀少庫存漫天喊價,讓真的有心開發Edge AI 的團隊受到不少影響。
請問F大,最後提到的生態系尚未成熟穩定,是指供應問題嗎?還是產品選擇性較少?
Hi andow1198,
兩者皆是喔!目前 NVIDIA 嵌入式產品在市場上能選擇的第三方製造商並不多,而供應問題今年(2023)已經有緩解不少。
可以從 NVIDIA Jetson Partner Hardware Products 裡面去查找合適的硬體設備。 或是入門者還是可以從 Jetson Nano Dev Kit 先入手。
謝謝F大解惑,我了解了。